#KL divergence

3 篇

SHq: Learnable Grids for LLM Weight Quantization

SHq：面向 LLM 权重量化的可学习网格

🧭 LLM 权重量化 · 可学习查找表网格 ★ 深度解读

ETH Zürich · Rhoa Research · Institute of Science and Technology Austria (ISTA)

用两参数 sinh 压缩网格替代固定查找表，端到端 KL 搜索参数，3-4bit 量化误差显著低于 NF/BOF/INT

📌 工作参考价值（4 点）

若业务中需以 4-bit/3-bit 低比特部署 LLM（如 query 改写、商品文案生成、广告标题生成、Agent 推理），可将 SHq 作为 NF4/INT4/NVFP4 的 drop-in 替换：只改 lookup table 内容，不改变存储与解码，实测 KL 更低且下游精度更好。
量化 grid 的选择不应只看权重 MSE 或 reconstruction error，而应在端到端目标（如生成 query 的分布偏移、业务代理指标）上搜索；SHq 直接以 calibration KL divergence 扫描参数，这个思路可迁移到量化、蒸馏或压缩方案的选择。
在 block-scaled LUT 格式中，E4M3 block scale 的 sign bit 通常闲置；可引入不对称 grid 或 offset，用 sign bit 在 grid 与 mirror 间切换，零成本增加有效码本大小，对 2-bit/3-bit 极低比特部署尤其有价值。
对 MoE 稀疏大模型（电商/广告推荐中常见）同样有效；联合使用 SHq 与 per-layer bit allocation（如 RCO）可进一步压缩，且 SHq 在各 bit-width 下保持最低 KL，适合做统一量化格式。

Other | 2026-11-02 | cs.LG | score 8/10

LLM 强化学习中训练-推理失配的成因与修正

🧭 LLM 在线强化学习训练稳定性

George Washington University · Duke University

拆分数值偏差与策略滞后，提出 DLC 校正，稳定异步采样下 LLM 在线策略训练

📌 工作参考价值（3 点）

在线 RL 训练 LLM 推荐文案/对话 Agent 时，若推理引擎与 trainer 分离，先对每个 prefix 的 score 做 centering 再计算 advantage，可去除推理引擎数值差异带来的近固定偏差；类似 advantage normalization，但要按 prefix 而不是全局批量做。
对异步采样引入的 policy lag，不要只做 per-token importance weighting；持续监控重要性权重的 ESS，低于 0.5 时强制同步 sampler 权重。该阈值在 Qwen3-1.7B 上被验证为崩溃临界点，可作工程默认触发条件。
别只监控 sampler 端前缀上的 KL，它检测不到由滞后反馈导致的塌缩；建议增加与 on-policy baseline 的 KL 对比或 trainer 侧 KL 监控，并配置自动 resync。

Training | 2026-10-28 | HF Daily | score 7/10

预测策略内自蒸馏中特权信息的有效性

🧭 多轮代理场景下的自蒸馏训练

University of Michigan – Ann Arbor · Mila · Scale AI

系统评估多轮代理场景下16种特权信息配置，提出KL散度指标预测其训练收益

📌 工作参考价值（4 点）

PI 的内容与生成源比固定设计更重要：优先选择信息密度高、由更强模型生成的轨迹片段作为 PI，尤其在多轮 Agent 对话中可显著提升自蒸馏收益。
训练前用 KL 指标预筛 PI 候选：计算 sampled-token reverse KL (D) 与 error-step KL contrast (Δd^{-}_{err})，比直接看 PI utility 更能稳定预测训练后性能，可避免信息泄漏导致的误判。
当候选 PI 差异较大时，利用 Δd^{-}_{err} 为每个任务动态选择 PI，比随机选择平均提升更高；适合业务中多任务、多轨迹来源的场景。
自蒸馏目标可与 GRPO 等强化学习目标结合，在有效 PI 下获得比纯 GRPO 更强的性能，适合需要兼顾模仿与探索的电商 Agent 训练。

Training | 2026-10-14 | HF Daily | score 7/10